编解码器过滤器

本文解释一下为什么以及如何使用一个 ProtocolCodecFilter。

为什么使用 ProtocolCodecFilter?

  • TCP 担保以正确的顺序交付所有数据包。但是没有担保对于在发送端写操作时影响到接收端的读事件。参考 http://en.wikipedia.org/wiki/IPv4#Fragmentation_and_reassemblyhttp://en.wikipedia.org/wiki/Nagle%27s_algorithm。在 MINA 术语中:如果没有 ProtocolCodecFilter 的话,一个由发送端对 IoSession.write(Object message) 的调用将导致多个接收端的 messageReceived(IoSession session, Object message) 事件,而多个 IoSession.write(Object message) 的调用只会引起唯一的一个 messageReceived 事件。当你的客户端和服务器端运行在同一台主机上 (或者处于同一个本地网) 而你的应用能够应对这种情况时,你可能不会遭遇到这种情况。
  • 大多数网络应用需要一种方法以找出当前消息的结束位置和下一条消息的起始位置。
  • 你完全可以在你的 IoHandler 实现所有的这些逻辑,但是添加一个 ProtocolCodecFilter 可以让你的代码更加清晰并容易维护。
  • 它将你的协议逻辑从你的业务逻辑中 (IoHandler) 剥离开来。

如何使用?

你的应用接收到的基本上是一串字节,你需要将这些字节转换为消息 (高层对象)。

有三种常见的技术用来将字节流分割为消息:

  • 使用固定长度的字节
  • 使用固定长度的报头来指示出报体的长度
  • 使用定界符。例如,许多基于文本的协议在每条消息 (http://www.faqs.org/rfcs/rfc977.html) 后面紧跟一个新的空行 (或者 CR LF 对)。

本文将使用第一种和第二种方法,因为它们很明显更容易实现。然后我们再看一下使用定界符的做法。

例子

我们将会开发一个 (毫无用处的) 图形字符发生器协议服务器来说明如何实现你自己协议的编解码器 (ProtocolEncoder、ProtocolDecoder 和 ProtocolCodecFactory)。这个协议是很简单的。这是请求消息的布局:
















4 bytes4 bytes4 bytes
widthheightnumchars
  • width:被请求图片的宽度 (网络字节顺序的一个整数)
  • height:被请求图片的高度 (网络字节顺序的一个整数)
  • numchars:要生成的字符数 (网络字节顺序的一个整数)

服务器以符合请求尺寸的两张图片进行响应,每张图片上打上请求的字符数。这是一个响应消息的布局:


















4 bytesvariable length body4 bytesvariable length body
length1image1length2image2

我们需要的用于请求和响应的编码和解码的类的概述:

  • ImageRequest:一个表示对我们的图片服务器请求的简单的 POJO
  • ImageRequestEncoder:将 ImageRequest 对象编码为协议专用数据 (由客户端使用)
  • ImageRequestDecoder:将协议专用数据解码为 ImageRequest 对象 (由服务器端使用)
  • ImageResponse:一个表示来自我们图片服务器端的响应的简单的 POJO
  • ImageResponseEncoder:服务器端用以对 ImageResponse 对象编码的类
  • ImageResponseDecoder:客户端用以对 ImageResponse 对象解码的类
  • ImageCodecFactory:这个类负责创建需要的编码器和解码器

ImageRequest 类源代码如下:

  1. public class ImageRequest {
  2. private int width;
  3. private int height;
  4. private int numberOfCharacters;
  5. public ImageRequest(int width, int height, int numberOfCharacters) {
  6. this.width = width;
  7. this.height = height;
  8. this.numberOfCharacters = numberOfCharacters;
  9. }
  10. public int getWidth() {
  11. return width;
  12. }
  13. public int getHeight() {
  14. return height;
  15. }
  16. public int getNumberOfCharacters() {
  17. return numberOfCharacters;
  18. }
  19. }

编码往往比解码容易,因此我们先从 ImageRequestEncoder 开始:

  1. public class ImageRequestEncoder implements ProtocolEncoder {
  2. public void encode(IoSession session, Object message, ProtocolEncoderOutput out) throws Exception {
  3. ImageRequest request = (ImageRequest) message;
  4. IoBuffer buffer = IoBuffer.allocate(12, false);
  5. buffer.putInt(request.getWidth());
  6. buffer.putInt(request.getHeight());
  7. buffer.putInt(request.getNumberOfCharacters());
  8. buffer.flip();
  9. out.write(buffer);
  10. }
  11. public void dispose(IoSession session) throws Exception {
  12. // nothing to dispose
  13. }
  14. }

备注:

  • MINA 将会为所有在 IoSession 的写队列里的消息调用编码方法。既然我们的客户端只会写 ImageRequest 对象,我们可以安全地把消息放进 ImageRequest
  • 我们在堆空间分配了一个新的 IoBuffer。最好避免使用直接缓存,因为通常堆缓存表现的更好。参考 http://issues.apache.org/jira/browse/DIRMINA-289
  • 不需要你去释放缓存,MINA 为你代劳了。参考http://mina.apache.org/mina-project/apidocs/org/apache/mina/core/buffer/IoBuffer.html
  • 你应该在 dispose() 方法中释放所有在为特定会话编码时所获取的资源。如果没有任何事情要处理你可以让你的编码器继承自 ProtocolEncoderAdapter

现在我们来看一下解码器。CumulativeProtocolDecoder 绝对对写你自己的编码器有很大帮助:它将把你的解码器决定对连入数据可以做一些事情之前都缓存起来。在这种情况下消息具有固定大小,因此很容易等待所有的数据到齐以后再进行一些操作:

  1. public class ImageRequestDecoder extends CumulativeProtocolDecoder {
  2. protected boolean doDecode(IoSession session, IoBuffer in, ProtocolDecoderOutput out) throws Exception {
  3. if (in.remaining() >= 12) {
  4. int width = in.getInt();
  5. int height = in.getInt();
  6. int numberOfCharachters = in.getInt();
  7. ImageRequest request = new ImageRequest(width, height, numberOfCharachters);
  8. out.write(request);
  9. return true;
  10. } else {
  11. return false;
  12. }
  13. }
  14. }

备注:

  • 每次在对一个完整的消息编码时,你应该将其写进
    ProtocolDecoderOutput;这些消息将穿过过滤器链并最终到达你的 IoHandler.messageReceived 方法
  • 你不必负责释放 IoBuffer
  • 如果没有足够的可用数据用以解码一条消息,只需返回 false

响应也是一个非常简单的 POJO:

  1. public class ImageResponse {
  2. private BufferedImage image1;
  3. private BufferedImage image2;
  4. public ImageResponse(BufferedImage image1, BufferedImage image2) {
  5. this.image1 = image1;
  6. this.image2 = image2;
  7. }
  8. public BufferedImage getImage1() {
  9. return image1;
  10. }
  11. public BufferedImage getImage2() {
  12. return image2;
  13. }
  14. }

响应的编码也很简单:

  1. public class ImageResponseEncoder extends ProtocolEncoderAdapter {
  2. public void encode(IoSession session, Object message, ProtocolEncoderOutput out) throws Exception {
  3. ImageResponse imageResponse = (ImageResponse) message;
  4. byte[] bytes1 = getBytes(imageResponse.getImage1());
  5. byte[] bytes2 = getBytes(imageResponse.getImage2());
  6. int capacity = bytes1.length + bytes2.length + 8;
  7. IoBuffer buffer = IoBuffer.allocate(capacity, false);
  8. buffer.setAutoExpand(true);
  9. buffer.putInt(bytes1.length);
  10. buffer.put(bytes1);
  11. buffer.putInt(bytes2.length);
  12. buffer.put(bytes2);
  13. buffer.flip();
  14. out.write(buffer);
  15. }
  16. private byte[] getBytes(BufferedImage image) throws IOException {
  17. ByteArrayOutputStream baos = new ByteArrayOutputStream();
  18. ImageIO.write(image, "PNG", baos);
  19. return baos.toByteArray();
  20. }
  21. }

备注:

当无法提前预测 IoBuffer 的长度时,你可以通过调用 buffer.setAutoExpand(true); 使用一个自动扩展缓存

现在我们来看一下响应的解码:

  1. public class ImageResponseDecoder extends CumulativeProtocolDecoder {
  2. private static final String DECODER_STATE_KEY = ImageResponseDecoder.class.getName() + ".STATE";
  3. public static final int MAX_IMAGE_SIZE = 5 * 1024 * 1024;
  4. private static class DecoderState {
  5. BufferedImage image1;
  6. }
  7. protected boolean doDecode(IoSession session, IoBuffer in, ProtocolDecoderOutput out) throws Exception {
  8. DecoderState decoderState = (DecoderState) session.getAttribute(DECODER_STATE_KEY);
  9. if (decoderState == null) {
  10. decoderState = new DecoderState();
  11. session.setAttribute(DECODER_STATE_KEY, decoderState);
  12. }
  13. if (decoderState.image1 == null) {
  14. // try to read first image
  15. if (in.prefixedDataAvailable(4, MAX_IMAGE_SIZE)) {
  16. decoderState.image1 = readImage(in);
  17. } else {
  18. // not enough data available to read first image
  19. return false;
  20. }
  21. }
  22. if (decoderState.image1 != null) {
  23. // try to read second image
  24. if (in.prefixedDataAvailable(4, MAX_IMAGE_SIZE)) {
  25. BufferedImage image2 = readImage(in);
  26. ImageResponse imageResponse = new ImageResponse(decoderState.image1, image2);
  27. out.write(imageResponse);
  28. decoderState.image1 = null;
  29. return true;
  30. } else {
  31. // not enough data available to read second image
  32. return false;
  33. }
  34. }
  35. return false;
  36. }
  37. private BufferedImage readImage(IoBuffer in) throws IOException {
  38. int length = in.getInt();
  39. byte[] bytes = new byte[length];
  40. in.get(bytes);
  41. ByteArrayInputStream bais = new ByteArrayInputStream(bytes);
  42. return ImageIO.read(bais);
  43. }
  44. }

备注:

  • 我们将解码过程的状态保存为一个会话属性。也可以将这一状态保存在解码器对象自身中,但这么干有一些缺点:
    • 每个 IoSession 需要自己的解码器实例
    • MINA 能够确保不会有多个线程同时为同一个 IoSession 执行 decode() 方法,但这并不能担保执行这个方法的总述同一个线程。假设第一块数据有线程 1 处理,线程 1 认为还不能解码,当下一块数据到达时,它可能会被另一个线程处理。为了避免可见性问题,你必须对这一解码状态进行适当加锁 (IoSession 的属性保存在一个 ConcurrentHashMap中,因此它们对于其他线程是自动可见的)
    • 在邮件列表中的一个讨论得出了这一结论:关于是把状态保存在 IoSession 还是解码器实例中的选择是一个很有趣的问题。要确保不会有两个以上的线程为同一个 IoSession 运行解码方法,MINA 需要做某种形式的同步 => 这一同步也可以保证你不会遇到上面描述的可见性问题。(感谢 Adam Fisk 指出这一点) 参考 http://www.nabble.com/Tutorial-on-ProtocolCodecFilter,-state-and-threads-t3965413.html
  • IoBuffer.prefixedDataAvailable() 在你的协议事宜一个长度前缀时很是便利;它支持 1、2 或 4 个字节的前缀
  • 在你解码一个响应的时候别忘了复位解码状态 (将该会话属性删除是解决这种问题的另一种方法)

如果响应只有单一的一个图片,我们就无需保存解码状态了:

  1. protected boolean doDecode(IoSession session, IoBuffer in, ProtocolDecoderOutput out) throws Exception {
  2. if (in.prefixedDataAvailable(4)) {
  3. int length = in.getInt();
  4. byte[] bytes = new byte[length];
  5. in.get(bytes);
  6. ByteArrayInputStream bais = new ByteArrayInputStream(bytes);
  7. BufferedImage image = ImageIO.read(bais);
  8. out.write(image);
  9. return true;
  10. } else {
  11. return false;
  12. }
  13. }

现在我们把它们都组合在一起:

  1. public class ImageCodecFactory implements ProtocolCodecFactory {
  2. private ProtocolEncoder encoder;
  3. private ProtocolDecoder decoder;
  4. public ImageCodecFactory(boolean client) {
  5. if (client) {
  6. encoder = new ImageRequestEncoder();
  7. decoder = new ImageResponseDecoder();
  8. } else {
  9. encoder = new ImageResponseEncoder();
  10. decoder = new ImageRequestDecoder();
  11. }
  12. }
  13. public ProtocolEncoder getEncoder(IoSession ioSession) throws Exception {
  14. return encoder;
  15. }
  16. public ProtocolDecoder getDecoder(IoSession ioSession) throws Exception {
  17. return decoder;
  18. }
  19. }

备注:

  • 对于每个新会话,MINA 将会请求 ImageCodecFactory 以获取一个编码器或者一个解码器
  • 因为我们的编码器和解码器没有保存会话状态,因此让所有会话共享一个单一实例是安全的

这里是服务器端对 ProtocolCodecFactory 的使用:

  1. public class ImageServer {
  2. public static final int PORT = 33789;
  3. public static void main(String[] args) throws IOException {
  4. ImageServerIoHandler handler = new ImageServerIoHandler();
  5. NioSocketAcceptor acceptor = new NioSocketAcceptor();
  6. acceptor.getFilterChain().addLast("protocol", new ProtocolCodecFilter(new ImageCodecFactory(false)));
  7. acceptor.setLocalAddress(new InetSocketAddress(PORT));
  8. acceptor.setHandler(handler);
  9. acceptor.bind();
  10. System.out.println("server is listenig at port " + PORT);
  11. }
  12. }

客户端的使用完全一致:

  1. public class ImageClient extends IoHandlerAdapter {
  2. public static final int CONNECT_TIMEOUT = 3000;
  3. private String host;
  4. private int port;
  5. private SocketConnector connector;
  6. private IoSession session;
  7. private ImageListener imageListener;
  8. public ImageClient(String host, int port, ImageListener imageListener) {
  9. this.host = host;
  10. this.port = port;
  11. this.imageListener = imageListener;
  12. connector = new NioSocketConnector();
  13. connector.getFilterChain().addLast("codec", new ProtocolCodecFilter(new ImageCodecFactory(true)));
  14. connector.setHandler(this);
  15. }
  16. public void messageReceived(IoSession session, Object message) throws Exception {
  17. ImageResponse response = (ImageResponse) message;
  18. imageListener.onImages(response.getImage1(), response.getImage2());
  19. }
  20. ...

完整性考虑,现在附加一个服务器端的 IoHandler 代码:

  1. public class ImageServerIoHandler extends IoHandlerAdapter {
  2. private final static String characters = "mina rocks abcdefghijklmnopqrstuvwxyz0123456789";
  3. public static final String INDEX_KEY = ImageServerIoHandler.class.getName() + ".INDEX";
  4. private Logger logger = LoggerFactory.getLogger(this.getClass());
  5. public void sessionOpened(IoSession session) throws Exception {
  6. session.setAttribute(INDEX_KEY, 0);
  7. }
  8. public void exceptionCaught(IoSession session, Throwable cause) throws Exception {
  9. IoSessionLogger sessionLogger = IoSessionLogger.getLogger(session, logger);
  10. sessionLogger.warn(cause.getMessage(), cause);
  11. }
  12. public void messageReceived(IoSession session, Object message) throws Exception {
  13. ImageRequest request = (ImageRequest) message;
  14. String text1 = generateString(session, request.getNumberOfCharacters());
  15. String text2 = generateString(session, request.getNumberOfCharacters());
  16. BufferedImage image1 = createImage(request, text1);
  17. BufferedImage image2 = createImage(request, text2);
  18. ImageResponse response = new ImageResponse(image1, image2);
  19. session.write(response);
  20. }
  21. private BufferedImage createImage(ImageRequest request, String text) {
  22. BufferedImage image = new BufferedImage(request.getWidth(), request.getHeight(), BufferedImage.TYPE_BYTE_INDEXED);
  23. Graphics graphics = image.createGraphics();
  24. graphics.setColor(Color.YELLOW);
  25. graphics.fillRect(0, 0, image.getWidth(), image.getHeight());
  26. Font serif = new Font("serif", Font.PLAIN, 30);
  27. graphics.setFont(serif);
  28. graphics.setColor(Color.BLUE);
  29. graphics.drawString(text, 10, 50);
  30. return image;
  31. }
  32. private String generateString(IoSession session, int length) {
  33. Integer index = (Integer) session.getAttribute(INDEX_KEY);
  34. StringBuffer buffer = new StringBuffer(length);
  35. while (buffer.length() < length) {
  36. buffer.append(characters.charAt(index));
  37. index++;
  38. if (index >= characters.length()) {
  39. index = 0;
  40. }
  41. }
  42. session.setAttribute(INDEX_KEY, index);
  43. return buffer.toString();
  44. }
  45. }

Chapter 9 - 编解码器过滤器 - 图1

结论

关于编码和解码不仅于此。但是我希望本文足以让你开始了。不久的将来我会尝试着添加关于 DemuxingProtocolCodecFactory 的一些介绍。届时我们也将看一下如何使用定界符取代长度前缀的做法

译者注:翻译版本的项目源码见 https://github.com/waylau/apache-mina-2-user-guide-demos 中的com.waylau.mina.demo.imagine包下